Nguyên đây là xóm Bàu Trai thuộc làng Hòa Khánh, tổng Cầu An Hạ, quận Đức Hòa, tỉnh Chợ Lớn (sau năm 1956 thuộc tỉnh Long An).

Năm 1963, chính quyền thành lập tỉnh Hậu Nghĩa từ trên cơ sở một phần đất của ba tỉnh Bình Dương, Tây Ninh và Long An. Tỉnh lỵ tỉnh Hậu Nghĩa được đặt tại Bàu Trai và được đổi tên thành thị xã Khiêm Cương, về mặt hành chính thuộc xã Hòa Khánh, quận Đức Hòa.

Tháng 2 năm 1976, tỉnh Hậu Nghĩa bị giải thể và địa bàn sáp nhập vào ba tỉnh lân cận. Hai quận Đức Huệ và Đức Hòa nhập vào tỉnh Long An và được đổi thành đơn vị hành chính cấp huyện. Thị xã Khiêm Cương được đổi thành thị trấn Hậu Nghĩa, huyện lỵ của huyện Đức Hoà.